Simplificando el modelado de condicionales arbitrarios en lenguaje natural
Descubre cómo AC-GPT permite evaluar y muestrear condicionales arbitrarios en lenguaje natural con una sola pasada, sin degradar el rendimiento de los LLMs.
#una sola pasada
SpenseGPT: Poda práctica de una sola pasada con GEMMs dispersos y densos
Descubre SpenseGPT: poda one-shot que acelera la inferencia de LLMs hasta 1.2x en GPUs B200 con FP8, manteniendo la precisión. Formato híbrido 2:4 y denso.